Information Criterion

释义 (Definition)

信息准则：用于模型选择的一类统计量，把模型对数据的拟合程度（如对数似然）与模型复杂度（参数数量等）结合起来，通过“拟合好 + 惩罚复杂”来比较不同模型。常见的有 AIC、BIC 等。（在不同学科语境下也可能指更广义的“基于信息量的评判标准”。）

发音 (Pronunciation, IPA)

/ˌɪnfərˈmeɪʃən kraɪˈtɪəriən/

例句 (Examples)

We used an information criterion to choose the best model.
我们用信息准则来选择最好的模型。

Among competing time-series models, the information criterion favored the simpler specification despite a slightly worse fit.
在一组相互竞争的时间序列模型中，信息准则尽管面对略差的拟合效果，仍更偏向更简单的设定。

词源 (Etymology)

information 源自拉丁语 informare（“塑造、赋形、告知”），在统计学里常与“信息量/信息论”含义相关；criterion 源自希腊语 kritērion（“判断的标准”）。合在一起，information criterion 直译为“信息（量）意义下的评判标准”，在现代统计学中专指用信息量思想来权衡拟合与复杂度的模型比较指标。

相关词 (Related Words)

• Aic
• Bic
• Model Selection
• Likelihood
• Log-Likelihood
• Penalty
• Overfitting
• Parsimony
• Cross-Validation

文学与名著中的用例 (Literary Works)

• Akaike, H. (1974). *A new look at the statistical model identification.*（提出 AIC，信息准则经典来源）
• Schwarz, G. (1978). *Estimating the dimension of a model.*（提出 BIC/Schwarz criterion）
• Burnham, K. P., & Anderson, D. R. *Model Selection and Multimodel Inference.*（系统讲解信息准则与模型比较）
• Hastie, T., Tibshirani, R., & Friedman, J. *The Elements of Statistical Learning.*（在统计学习的模型选择章节中讨论信息准则等方法）